Ma davvero, cos'è la "superintelligenza"?

Meta ha appena annunciato una mossa importante nei suoi sforzi nell'intelligenza artificiale: investire in Scale AI e costruire un laboratorio di ricerca sulla superintelligenza artificiale. Mentre Meta ha cercato di tenere il passo con i grandi nomi della corsa all'intelligenza artificiale, come OpenAI, Anthropic e Google, la nuova strategia dell'azienda prevede di investire ingenti capitali per acquisire talenti e investire in Scale AI.

Nella puntata di oggi, approfondiremo l'accordo tra Meta e Scale AI, incluso ciò che Meta intende ottenere dall'investimento, e porremo la domanda che tutti ci poniamo: cos'è l'intelligenza sovrumana?

Potete seguire Michael Calore su Bluesky @snackfight , Lauren Goode su Bluesky @laurengoode e Katie Drummond su Bluesky @katie-drummond . Scriveteci a [email protected] .

Puoi sempre ascoltare il podcast di questa settimana tramite il lettore audio presente in questa pagina, ma se vuoi abbonarti gratuitamente per ricevere tutti gli episodi, ecco come fare:

Se usi un iPhone o un iPad, apri l'app Podcast o tocca questo link . Puoi anche scaricare un'app come Overcast o Pocket Casts e cercare "Uncanny Valley". Siamo anche su Spotify .

Nota: questa è una trascrizione automatica, che potrebbe contenere errori.

Michael Calore: Come stanno andando le cose questa settimana?

Katie Drummond: Beh, sono tornata e sono così felice di essere qui. Ho mangiato tantissimo burro in Francia la settimana scorsa, le prime due sere che ho avuto per me. E quindi cosa farebbe una persona normale a Parigi? Magari uscirebbe, si siederebbe al bar e cenerebbe da sola, magari incontrerebbe un'amica. Io ho mangiato burro e pane da sola nella mia stanza d'albergo. E lasciatemelo dire, se state ascoltando e siete mamme e avete un bambino piccolo o dei bambini piccoli, se siete sposate, se fate fatica ad avere un coniuge e un figlio e magari anche degli animali domestici e un lavoro impegnativo, non c'è esperienza migliore che mangiare burro e pane francese da sola in una stanza d'albergo.

Michael Calore: Wow.

Lauren Goode: Uncanny Valley , presentato da Dairy Lobby.

Katie Drummond: Per la lobby francese dei latticini. Mi sento incredibilmente bene. Come state?

Lauren Goode: Sto bene. Ho la frangetta.

Katie Drummond: Davvero?

Lauren Goode: Sì. Quindi la maggior parte dei nostri ascoltatori non può vederlo a meno che non guardi i nostri nuovi video promozionali online, ma io ho la frangia. C'è spesso una correlazione tra ciò che succede nel mondo e le donne che si tagliano la frangia. Questo è tutto ciò che dirò al riguardo. Ma a parte questo, sto benissimo. Sto benissimo. Vota la frangia, vai online. Pollice in su, pollice in giù.

Katie Drummond: Cinque su cinque.

Lauren Goode: Grazie. Katie, sei stata davvero la mia ispirazione.

Katie Drummond: Oh, no, sei troppo gentile. Ma adoro la frangia e detesto la fronte.

Michael Calore: Bene, ho un taglio di capelli per te.

Lauren Goode: Bene, Mike, come stai? Mi dispiace, Mike.

Katie Drummond: Ma c'è così tanta intelligenza lì dentro, Mike. È questo il punto.

Michael Calore: Sono esattamente come Dio mi ha creato.

Katie Drummond: Come stai?

Michael Calore: Sto benissimo. Non ho storie sui capelli. Non ho mangiato burro ultimamente, quindi mi sento davvero escluso in questo momento. Questa è Uncanny Valley di WIRED, una serie sulle persone, il potere e l'influenza della Silicon Valley. Oggi parliamo del recente investimento di Meta in Scale AI e della sua intenzione di costruire un laboratorio di ricerca sull'intelligenza artificiale per la superintelligenza. È l'ultimo tentativo di Meta di competere con i grandi nomi nella corsa all'intelligenza artificiale come OpenAI , Anthropic e Google . Ma Meta sta adottando un approccio diverso. Non solo i suoi modelli di intelligenza artificiale sono open source, ma, in tipico stile Meta, sembra cercare di superare i suoi concorrenti per acquisire i migliori talenti, e il suo investimento in Scale AI, che non è un'acquisizione, è solo parte di questa strategia. Ci immergeremo in ciò che Meta spera di ottenere da questo investimento e cosa sta effettivamente ottenendo, e se questa mossa potrebbe dare all'azienda il vantaggio competitivo che sta cercando. Inoltre, ci chiederemo: cos'è la superintelligenza? Sono Michael Calore, direttore della tecnologia e della cultura dei consumatori di WIRED.

Lauren Goode: Sono Lauren Goode. Sono una corrispondente senior di WIRED.

Katie Drummond: E io sono Katie Drummond, direttrice editoriale globale di WIRED.

Michael Calore: Iniziamo subito con Scale AI. A differenza di Meta, l'azienda non è un nome che si definirebbe familiare al di fuori della Silicon Valley, ma si è sicuramente fatta un nome nel mondo dell'intelligenza artificiale. Cosa c'è dietro Scale?

Lauren Goode: Scale AI è un'azienda di etichettatura dei dati. Sembra molto attraente, vero? Si occupano del lavoro più pesante, ovvero analizzare e categorizzare i dati che vengono poi distribuiti a modelli di intelligenza artificiale più ampi per addestrarli. Non è niente di speciale, ma svolgono una funzione essenziale per il miglioramento dei programmi di apprendimento automatico. E hanno clienti piuttosto importanti. Tra i loro clienti figurano aziende come OpenAI e Google. All'inizio di quest'anno, il nostro collega Will Knight ha parlato della nuova piattaforma di Scale AI, che consente di testare automaticamente i modelli di intelligenza artificiale rispetto a benchmark chiave e di individuare eventuali punti deboli. In pratica, Scale AI si è impegnata a fondo per essere un partner chiave nella collaborazione con queste grandi aziende di intelligenza artificiale.

Katie Drummond: Credo valga la pena sottolineare che al centro del successo dell'azienda c'è il suo fondatore, Alexandr Wang, senza la "e", giusto?

Michael Calore: Sì.

Lauren Goode: Sì.

Michael Calore: è il Flickr dei CEO.

Katie Drummond: Ecco fatto. Ha 28 anni e a un certo punto è stato addirittura il più giovane miliardario self-made del mondo, il che è davvero incredibile. Quindi è una personalità ben nota nella Silicon Valley, ed è probabilmente più noto per la sua abilità nel fare networking, e dato che non vivo a San Francisco, Lauren e Mike possono probabilmente dirvi molto di più al riguardo. Ma una volta era coinquilino di Sam Altman , che, a quanto pare, gli avrebbe detto di moderare un po' il networking. Non è chiaro quali possano essere state le motivazioni, ma a Wang chiaramente non è piaciuto quel consiglio e per lui ha dato i suoi frutti. Quindi quest'ultimo accordo tra Meta e Scale AI è arrivato in realtà dopo che Wang e Zuckerberg, a quanto pare, hanno trascorso molto tempo insieme a fare networking, presumibilmente. E quindi sono proprio i suoi rapporti con così tanti attori chiave nel settore dell'intelligenza artificiale che lo hanno reso così potente e richiesto da un'azienda come Meta che, come vedremo più avanti, potrebbe davvero trarre vantaggio dall'intelligenza artificiale.

Bloomberg ha recentemente riportato che Wang è noto per aver contattato "un numero vertiginoso di persone", e non solo i dirigenti, ma anche i junior delle aziende di intelligenza artificiale, per sapere a cosa stanno lavorando e cosa vogliono fare. Quindi non è solo un networker, ma è anche una persona che tiene le orecchie aperte. È piuttosto informato sulla Silicon Valley per quanto riguarda l'intelligenza artificiale.

Lauren Goode: Sembra estenuante.

Katie Drummond: Sì, certo. Mi sentivo stanca solo a parlarne.

Lauren Goode: Sì. E poi, com'è davvero il networking nella Silicon Valley? Tipo, tu...

Katie Drummond: Bene, ditemi voi. Cosa fate?

Lauren Goode: Sì, non lo so. Incontrare un po' di gente al Blue Bottle prima di andare al Marine Layer e poi andare a una festa di coding che duri tutta la notte nella rimessa per carrozze di una villa a Pacific Heights? Non lo so. Che aspetto ha?

Michael Calore: Si tratta di tante passeggiate e chiacchiere.

Katie Drummond: Davvero?

Lauren Goode: Beh, nella Valley sì.

Michael Calore: Sì.

Lauren Goode: Nei dintorni di Palo Alto, la gente è in... La gente fa lo stesso anche a San Francisco?

Michael Calore: Oh, sì.

Lauren Goode: Sì? Sì, esiste?

Michael Calore: Sì, le persone camminano e parlano.

Katie Drummond: A proposito di passeggiate e chiacchiere, Mike, vorrei sapere di più sui dettagli dell'accordo.

Michael Calore: Sì. Parliamo di quanti soldi sono in gioco in questo accordo, di cosa Meta spera di ottenere dall'investimento e, forse ancora più importante, di cosa sta effettivamente ottenendo da questo accordo.

Lauren Goode: Quindi l'accordo è stato annunciato come un investimento di 14,3 miliardi di dollari in Scale AI. Per essere chiari, non si tratta di un'acquisizione. Stanno solo prendendo una quota del 49% in Scale AI e portando anche Alexandr Wang e un sacco di talenti, ma non è un'acquisizione, gente. Non chiamatela così. Abbiamo assistito a un'ondata di questo tipo negli ultimi 12-18 mesi, in cui Microsoft e Google hanno anche effettuato investimenti strategici o accordi di licenza con attori minori dell'IA per includerli nel gruppo, senza necessariamente affrontare il vaglio del governo degli Stati Uniti e del Dipartimento di Giustizia, perché vogliono muoversi rapidamente in questo ambito. Vogliono sviluppare queste IA il più rapidamente possibile, e quindi vogliono semplicemente portare tutti questi talenti. E quindi sì, stiamo mettendo insieme Meta, ma è essenzialmente quello che stanno facendo con Scale AI.

Ora, per Alexandr, il nostro esperto di networking, questo accordo include anche un ruolo di leadership in questo progetto di superintelligenza che Meta sta sviluppando. Ne parleremo più avanti, quando parleremo della superintelligenza e di cosa sia esattamente. Zuckerberg, Meta ora detiene una partecipazione strategica del 49% in Scale AI. Per quanto riguarda ciò che Meta otterrà realmente da questo accordo, la risorsa principale è l'enorme quantità di dati di addestramento dell'IA che Scale AI possiede, e questo porta a ciò che Meta spera di ottenere a lungo termine: una spinta allo sviluppo dei suoi progetti Meta AI.

Katie Drummond: E voglio dire, Meta sta sicuramente facendo un sacco di cose intelligenti qui, si potrebbe dire, una delle quali è che ha messo i suoi concorrenti in una posizione piuttosto difficile quando si tratta di decidere se continuare a lavorare con Scale AI o se passare ad altre aziende. E Scale AI ha anche altre partnership in corso al di fuori dell'ecosistema dell'IA. Quindi l'azienda ha accordi con governi stranieri in Asia e in Europa, ha un accordo con il Dipartimento della Difesa per un programma di agenti IA unico nel suo genere, il che suona distopico quanto probabilmente lo è. Si chiama Thunder Forge. E l'obiettivo è essenzialmente quello di migliorare le operazioni militari con agenti IA. Voglio dire, è esattamente quello che pensi che sarebbe. E Meta potrebbe potenzialmente trarre vantaggio da tutte quelle alleanze che Scale AI ha. Quindi certamente si potrebbe dire che si tratta di un accordo reciprocamente vantaggioso e che mette molti attori del settore dell'IA sotto osservazione per quanto riguarda Meta.

Lauren Goode: Voglio dire, credo che la cosa importante da ricordare di Meta sia che Meta si fa strada nell'innovazione. Non la fa partire completamente da sola. Se si guarda a WhatsApp, a Instagram, a Oculus, tutte acquisite da Meta. E poi, a volte, quando Meta cerca di elaborare una visione per il futuro da sola, come il Metaverso, di cui abbiamo sentito parlare solo due anni fa, fallisce miseramente, o fallisce completamente, o fallisce completamente nel suo computer virtuale, come ci piace dire. Quello che Meta sta facendo qui è bloccare non solo i dati di Scale AI, ma anche i talenti e la tecnologia che ritiene fondamentali per avanzare nella prossima fase dell'IA. In parole povere, servono due cose per far crescere un'IA in questo momento: più potenza di calcolo e molti dati, idealmente di alta qualità.

Si tratta chiaramente di un acquisto di dati, ed è anche un modo per impedire ad altre aziende di utilizzarli potenzialmente. Come ha appena detto Katie, Google sta ora ritirando la sua partnership con Scale AI.

Michael Calore: E Meta lo fa perché ha ancora molta strada da fare per raggiungere la vetta, giusto? Abbiamo parlato di come Meta abbia inciampato negli ultimi anni nella corsa all'intelligenza artificiale, quindi voglio approfondire un po' la questione, soprattutto per quanto riguarda il ritardo rispetto ai concorrenti e cosa sta cercando di fare specificamente per andare avanti con questo investimento.

Lauren Goode: Esatto, con questo investimento strategico, Mike. La risposta breve è Llama, che è il suo modello fondante, la sua risposta a ChatGPT di OpenAI e Google Gemini. Purtroppo, finora, Llama non è stato all'altezza delle aspettative. Non è potente quanto i sistemi rivali di OpenAI e Google. In particolare, però, Meta ha cercato di differenziarsi rendendo Llama open source, il che significa che condivide liberamente il codice sottostante con sviluppatori software e aziende esterne. Quindi immagino che creda che a lungo termine questo gli sarà effettivamente vantaggioso, anche se al momento non sta ottenendo velocità e feed.

Michael Calore: Posso chiederti qual è l'opinione prevalente sul perché Meta abbia deciso di rilasciare Llama come modello open source invece di mantenerlo chiuso come tutti i suoi concorrenti?

Lauren Goode: Sì, è una buona domanda. Vorrei poter chiamare Mark e chiederglielo direttamente, ma non posso, e non sappiamo esattamente cosa gli passi per la testa. Credo però che in qualsiasi ambiente tecnologico solido ci sia un sistema di lock-in e ci siano fornitori open source, che si parli dei mainframe IBM e poi di Linux, o del software Apple contro Google Android, e credo che Google Android sia il sistema operativo più utilizzato al mondo, e da lì si sono sviluppati vari prodotti, modelli di business e modelli di licenza. Quindi questo potrebbe essere parte di ciò che Mark Zuckerberg sta pensando a lungo termine. Credo che anche lui si senta molto scottato da Apple. Voglio dire, lo ha detto specificamente quando ha scritto un post sul blog l'anno scorso, spiegando perché Llama è open source. Ha detto che per fare bene, dobbiamo assicurarci di avere sempre accesso alla migliore tecnologia e di non entrare nell'ecosistema chiuso di un concorrente, che può limitare ciò che realizziamo.

Ha affermato che una delle sue esperienze più formative, nello sviluppo dei servizi Meta, è stata quella di vederli vincolati da ciò che Apple permetterà a Meta di fare sulle sue piattaforme. Quindi, mentre riflette sul futuro dell'intelligenza artificiale e su cosa accadrà nei prossimi anni e oltre, immagino che non voglia che Meta ne sia vincolato.

Michael Calore: Sì, sembra che tutti gli sforzi di Meta in ambito AI siano rimasti per lo più superficiali, una sorta di cose leggere rivolte al consumatore, giusto? Hanno l'app Meta AI che si può usare per chattare praticamente come un chatbot, hanno integrato la loro AI negli occhiali intelligenti e hanno creato questi chatbot che vivono all'interno di Instagram e permettono di parlare con qualcuno che parla praticamente come Snoop Dog . C'è anche la ricerca assistita dall'AI che è stata implementata in tutti i diversi progetti Meta, ma sembra davvero che questo tipo di gioco sociale nell'AI, in particolare nell'AI dei chatbot, sia stato l'aspetto su cui si sono concentrati. Non hanno sistemi avanzati che le aziende possano concedere in licenza. Non hanno molte delle grandi munizioni che hanno le altre aziende.

Katie Drummond: Beh, e l'IA rivolta al consumatore, se posso permettermi il lusso di essere così audace, non è particolarmente buona, né ben progettata, né ben realizzata, né offre un'esperienza utente particolarmente positiva. Voglio dire, non ho un account Facebook, e non lo faccio da molto tempo. Uso Instagram. Voglio dire, non ho mai usato quel chatbot. Quindi queste scommesse rivolte al consumatore non hanno avuto particolare successo, oltre a non essere molto buone, ma di recente hanno anche commesso alcuni errori piuttosto significativi sul fronte della privacy. Sorpresa, sorpresa, Meta ha problemi con la privacy. La nostra collega, Kylie Robison, ha riferito che l'app ha effettivamente mostrato... È folle. È semplicemente folle. L'app ha mostrato conversazioni private tra il chatbot e gli utenti, tra cui informazioni mediche, indirizzi di casa, persino informazioni direttamente correlate a casi giudiziari pendenti, in cui le persone parlavano con il chatbot, gli ponevano domande, ricevevano aiuto per qualsiasi domanda strana e assurda a cui cercavano di rispondere o problema che cercavano di risolvere.

E a loro insaputa, quelle conversazioni apparivano in un feed social dove tutti potevano vedere qualcuno che cercava di rescindere il contratto di locazione del proprio inquilino, di accedere a materiale pornografico o di ottenere una diagnosi medica per lo strano nodulo sul piede. Tutte queste cose, sì, dovreste stare attenti nelle vostre conversazioni con qualsiasi chatbot? Assolutamente. Ma la maggior parte delle persone almeno dà per scontato che quei dialoghi e quegli scambi di battute non verranno pubblicati su internet. Voglio dire, è un fallimento piuttosto clamoroso. E di certo non sembra casuale, non sembra che abbiano pensato "Oh, che imbarazzo che sia successo". Semplicemente non credo che gli importi davvero. E questa è ovviamente la narrativa che circonda Meta da molto tempo, ovvero che sorgono problemi con i loro servizi, in particolare per quanto riguarda la privacy, e qualcuno nei media ne parla, e poi risolvono la situazione, ed è esattamente quello che è successo questa volta. Penso che abbiano inserito un disclaimer nella parte superiore del chatbot in modo che tu sappia se stai acconsentendo o meno a una qualche forma di condivisione pubblica delle tue conversazioni.

Ma sembra proprio che non siano particolarmente interessati a riflettere seriamente sulla questione della privacy, che, a mio parere, quando si tratta di chatbot e intelligenza artificiale e di questo coraggioso nuovo mondo in cui ci stiamo muovendo o verso cui ci stiamo muovendo, in alcuni casi, dovremmo probabilmente dedicare un po' di tempo a riflettere sulle considerazioni relative alla privacy. Ora, ovviamente, con questo accordo con Scale AI, Meta spera di voltare pagina, di aprire un nuovo capitolo in tutti i suoi sforzi nell'intelligenza artificiale, rivolti al consumatore o meno, in particolare con questo laboratorio di intelligenza artificiale superintelligente.

Michael Calore: È davvero importante che Meta non faccia tutte queste grandi dichiarazioni sulla superintelligenza. Non farebbe questo investimento se non avesse la sensazione di aver già fallito nella corsa allo sviluppo di programmi di intelligenza artificiale potenti. Perché non si tratta solo di una riorganizzazione o di un riallineamento, è un reset completo. Si tratta di un team completamente nuovo con una nuova leadership e una nuova missione. Per molto tempo, la persona che ha guidato gli sforzi di Meta nell'intelligenza artificiale è Yann LeCun , un guru della Silicon Valley molto rispettato nel campo dell'intelligenza artificiale. Ha vinto il Turing Award, il premio nerd per gli ingegneri dell'intelligenza artificiale. Ma LeCun notoriamente non pensa che l'intelligenza artificiale generale sia qualcosa all'orizzonte immediato. Non è un grande sostenitore dei chatbot. Vede il valore nei modelli linguistici di grandi dimensioni, ma non è quello il suo interesse. E penso che se si vuole andare fino in fondo, ok, qual è la prossima cosa? Allora servono nuove leve. C'è bisogno di persone che credano veramente in questa prossima fase, che, ovviamente, viene definita con il termine "superintelligenza".

Lauren Goode: Superintelligenza.

Michael Calore: Facciamo una pausa e poi torneremo per scoprire cosa significa.

[rottura]

Michael Calore: Bentornati a Uncanny Valley . Prima della pausa, accennavamo al fatto che un aspetto chiave di questo accordo tra Meta e Scale AI, al di là dei grandi investimenti, è la creazione di un laboratorio di intelligenza artificiale per la superintelligenza. Quindi, una domanda per il gruppo: che diavolo è la superintelligenza?

Katie Drummond: Lauren?

Lauren Goode: Oh, no. Beh, fondamentalmente si riferisce allo sviluppo di un'IA che vada oltre il cervello umano. Non è molto chiaro cosa significhi esattamente. Negli ultimi due anni abbiamo sentito parlare di AGI, ovvero di intelligenza artificiale generale , ora parliamo di superintelligenza. Quello che ho capito, parlandone con ricercatori e tecnici, non è un momento di svolta, non è che ci sarà un modello specifico o un lancio di prodotto in cui all'improvviso diciamo: "Oh, viviamo nell'AGI" e "Oh, il prossimo passo è la superintelligenza". Tutto sta accadendo in un continuum. Ma l'idea è di avere qualcosa di intelligente come un essere umano o il cervello umano in tasca, sul tuo telefono, il che è semplicemente pazzesco. Non sarà senziente, non proverà emozioni, ma farà un lavoro così buono nel replicare tutto questo che ne rimarrete in qualche modo sconvolti. E forse questa è una cattiva notizia per noi umani, non lo so davvero.

Sappiamo che il termine "superintelligenza" è stato reso popolare dal filosofo di Oxford, Nick Bostrom, che nel 2014 ha scritto un libro sulla superintelligenza. Ha delineato un futuro in cui l'IA sarebbe avanzata a tal punto da potersi rivoltare contro l'umanità e annientarla. E ora, ovviamente, viene utilizzato da Mark Zuckerberg. Quindi metaverso, superintelligenza, credo che a questo punto abbiamo un'idea di cosa ci sia nella libreria di Mark Zuckerberg.

Katie Drummond: E cioè, credo che l'intera questione, cos'è l'intelligenza artificiale globale? Cos'è la superintelligenza? Voglio dire, gran parte di questo è solo branding. È marketing che l'industria dell'intelligenza artificiale sta usando per evocare un senso di, credo, intimidazione, paura, soggezione, rispetto e deferenza da parte del pubblico in generale, dei politici, dei legislatori. Voglio dire, vogliono far percepire che questa nuova era è proprio dietro l'angolo e che dobbiamo prepararci ora. E se non siamo pronti prima che lo sia la Cina, sarà semplicemente catastrofico perché si tratta dell'intelligenza artificiale globale. È come dire, ma cos'è in realtà? E penso che Meta stia facendo qualcosa di estremamente interessante e in un certo senso cinico, a mio avviso, ovvero che presentando questo nuovo laboratorio come superintelligenza, stanno essenzialmente dicendo: "AGI? L'intelligenza artificiale globale è roba dell'anno scorso. Non ci stiamo nemmeno pensando. Stiamo solo saltando direttamente alla superintelligenza".

Voglio dire, questo è marketing a tutto tondo. Non sto dicendo che questa tecnologia non si stia evolvendo, che non migliorerà drasticamente nel tempo, che non vedremo, e lo vediamo già, un'intelligenza artificiale in grado di fare cose che le persone possono fare. Lo vediamo continuamente. Ci sono moltissimi esempi in tal senso. Ma credo che questi termini vengano usati in modo molto subdolo e opportunistico da leader e dirigenti del settore per far apparire la loro tecnologia il più impressionante, preziosa e intimidatoria possibile. Questo è ciò che penso.

Michael Calore: È un buon marketing anche per i reclutatori. Se sei un professionista nel settore dell'intelligenza artificiale, sei già ben pagato, ti senti come se stessi lavorando alla prossima grande novità perché ti stai occupando di intelligenza artificiale, e poi all'improvviso pensi: sì, ma non preferiresti lavorare alla superintelligenza?

Lauren Goode: Sì. Sì.

Michael Calore: Quindi, chi altro sta lavorando alla superintelligenza? Ci sono altre aziende di AGI che dicono: "OK, no, aspetta, ora lo stiamo facendo anche noi". Ci sono persone che lavorano alla superintelligenza da un po' di tempo?

Lauren Goode: Dipende da quale visionario dell'IA stai ascoltando. Sam Altman di OpenAI sembra ancora piuttosto concentrato sull'AGI. Ha affermato di pensare che l'AGI sarà raggiunta prima della fine dell'attuale mandato presidenziale di Trump. Dario Amadei di Anthropic ha affermato di pensare che l'AGI sarà realizzata nei prossimi due anni. Quindi questi sono ancora i ragazzi dell'AGI. D'altra parte, c'è Ilya Sutskever, ex responsabile scientifico di OpenAI. Ha co-fondato un'azienda chiamata Safe Superintelligence, con un approccio diverso. Stanno sviluppando privatamente la superintelligenza e affermano che rilasceranno questa tecnologia al mondo solo quando sarà ritenuta sicura. Quindi penso che stiano tutti lavorando per la stessa cosa, ma "superintelligenza" è l'ultima parola d'ordine.

Katie Drummond: Mi piace molto il fatto che dovranno nascondersi per molti anni.

Michael Calore: Sì.

Katie Drummond: Non vedo l'ora di vederli uscire dal loro bunker con la loro IA sicura.

Michael Calore: Sì, lo tengono incatenato in cantina.

Katie Drummond: Vale la pena notare, a parte Ilya, che non tutti i leader dell'IA sono entusiasti della superintelligenza. Si tratta di persone che storicamente hanno mantenuto un basso profilo, ma di recente molti di loro hanno iniziato a parlare apertamente, il che credo sia degno di nota. Thomas Wolf ne è un esempio. È cofondatore e direttore scientifico di Hugging Faces. Ha definito alcune parti della Vision di Amadei "al massimo un pio desiderio". Questa sarebbe la visione dell'AGI. E Demis Hassabis , CEO di Google DeepMind, avrebbe detto al suo staff che, a suo parere, il settore potrebbe impiegare fino a un decennio per sviluppare l'AGI, sottolineando che ci sono molte cose che l'IA semplicemente non può fare oggi. Quindi, di nuovo, questo è scetticismo sull'AGI. Non stiamo nemmeno parlando di superintelligenza. Quindi solo Dio sa quando sarà pronta. Immagino quando Ilya ce lo farà sapere.

Michael Calore: Parliamo di tutte le persone coinvolte. Hai davvero bisogno di tutti i migliori talenti per poter competere davvero se vuoi costruire qualcosa, a prescindere da come lo chiami. E con questo investimento che Meta ha fatto con Scale AI, hanno portato Alexandr Wang in azienda, portando con sé persone chiave da Scale per lavorare con lui in Meta nel laboratorio di superintelligenza. E questo sta accadendo in un momento in cui i talenti dell'intelligenza artificiale sono molto richiesti, con a tutti i principali ingegneri che vengono offerti milioni e decine di milioni di dollari all'anno per lavorare nelle grandi aziende. E a quanto pare Meta ha offerto pacchetti retributivi fino a nove cifre per convincere le persone a venire a lavorare nel laboratorio di superintelligenza.

Katie Drummond: Aspetta. Puoi dire con chiarezza che si tratta di nove cifre? Quindi non sono centinaia di migliaia, non sono milioni, non sono decine di milioni, sono centinaia di milioni?

Michael Calore: Sono più di 100 milioni di dollari.

Lauren Goode: Cosa?

Michael Calore: Sì.

Katie Drummond: Voglio dire, sono senza parole. Sapevo delle cifre a sette e otto cifre, che sono anch'esse sbalorditive, ma nove cifre sono irreali. Sono soldi irreali.

Lauren Goode: Mi sono detta, devo proprio leggere di questa cosa adesso. Cosa? È pazzesco. Devo rivedere quello che ho detto prima, quando ho detto: "Oh, le aziende che cercano di fare un salto di qualità nell'intelligenza artificiale in questo momento stanno guardando alla potenza di calcolo e ai dati". Stanno anche guardando al talento. Questa è una parte enorme, enorme di tutto questo. Sono ancora senza parole per la quantità di denaro che viene offerta a queste persone, ma immagino che sia ciò che Meta ritiene di dover fare. Mi chiedo come si rifletterà questo nella sua prossima dichiarazione dei profitti. Abbiamo anche visto che all'inizio di questa settimana, un ingegnere di apprendimento automatico e ricercatore scientifico di lunga data presso OpenAI è appena stato trasferito a una nuova posizione come responsabile del reclutamento di OpenAI, il che è affascinante. Voglio dire, davvero, la reazione iniziale è un po' tipo, eh, questo è un cambio di carriera interessante. Ma poi pensi, oh, questo tizio parlerà alla grande. Ora deve uscire e reclutare i migliori talenti per OpenAI, reclutare continuamente i migliori talenti per OpenAI e ora devono competere con Meta che offre milioni, bajillioni di dollari agli ingegneri.

Quindi, credo che in questo momento ci sia effettivamente una corsa ai talenti. L'investitore di Sequoia Capital, David Kahn, ha appena scritto un post sul blog a riguardo, che stavo leggendo, in cui affermava che il talento è il nuovo collo di bottiglia nell'intelligenza artificiale, paragonandolo sostanzialmente alla creazione di una squadra sportiva. Sono tutti supportati da qualche azienda tecnologica o individuo super-ricco, e i giocatori più forti possono ottenere questi paghe folli, nell'ordine di decine o centinaia di milioni di dollari. A differenza delle squadre sportive, però, dove i giocatori hanno spesso contratti a lungo termine, i contratti di lavoro per l'intelligenza artificiale possono essere a breve termine e liquidi, il che significa che chiunque può essere rubato in qualsiasi momento.

Katie Drummond: È affascinante, è grottesco. Voglio sapere tutto su quanto vengono pagate queste persone. Voglio sapere tutto. E per Meta, sarà interessante vedere quanti soldi ci vogliono per ottenere i migliori talenti. Voglio dire, i soldi contano. Se qualcuno mi offrisse cento milioni di dollari per lavorare per qualcuno di cui non ero così entusiasta, in un'azienda che pensavo avesse un curriculum mediocre nel complesso e uno piuttosto scarso nell'intelligenza artificiale, voglio dire, cento milioni di dollari spostano l'ago della bilancia. E sarà molto interessante vedere se gli Anthropics, gli OpenAI e i Google del mondo riusciranno a competere. Voglio dire, sappiamo che Zuckerberg si sta occupando personalmente di gran parte di questo reclutamento. Sta contattando personalmente i candidati. Mi chiedo, e lo scopriremo, se questo sia a vantaggio dell'azienda o meno.

Lauren Goode: Voglio dire, a prescindere da cosa pensi di Mark Zuckerberg, Meta è semplicemente... Esiste da un po' ormai. È un'azienda ventennale. È quotata in borsa. Probabilmente otterresti anche un pacchetto azionario davvero interessante. Ma quando ti unisci a un razzo come OpenAI, lo fai perché pensi che se entri abbastanza presto... A questo punto, non è nemmeno così presto, ma che a un certo punto diventerai multimilionario se quell'azienda accelera o viene venduta o qualcosa del genere. E poi questo crea l'effetto volano che vediamo sempre nella Silicon Valley, giusto? I primi dipendenti di Google che se ne sono andati e hanno iniziato altre cose. Vedremo prima o poi questa ondata di persone di OpenAI che se ne vanno e iniziano altre cose. Ma se ricevi un'offerta simile da OpenAI, o da Meta a questo punto, a quale ti rivolgerai quando penserai, davvero, al futuro?

Michael Calore: E intendo dire, ci sono molte persone che non accetterebbero quei soldi. Voglio dire, se pensi al tipo di persone che percepiscono questi stipendi altissimo, sono state pagate benissimo per diversi anni, magari la loro azienda è stata acquisita e ne hanno ricavato un grosso guadagno, quindi ora se ne stanno comodamente seduti in una posizione da Anthropic o da OpenAI. E anche il progetto a cui stanno lavorando è qualcosa che corrisponde alle loro competenze e forse vogliono portarlo a termine. Quindi c'è un po' di ego in gioco, c'è una decisione di vita in gioco, e c'è una questione etica in gioco, tipo, vuoi davvero andare a lavorare per Meta? Vuoi andare a costruire questa cosa che stanno costruendo? Soprattutto dopo che hanno annunciato che inizieranno a consentire l'uso delle loro tecnologie da parte del Dipartimento della Difesa e che inizieranno a fare cose di guerra con gli strumenti di intelligenza artificiale che stanno sviluppando e gli strumenti di XR che stanno sviluppando.

Quindi sì, penso che in questo momento ci siano molte persone che se la passano bene e che devono decidere se quei soldi valgono la pena per loro come persone.

Lauren Goode: Passate mai del tempo sull'app Blind?

Michael Calore: No. Questa è quella in cui le persone parlano di cosa significa lavorare in un'azienda?

Lauren Goode: si tratta di lavorare per un'azienda perché devi affiliarti con un'azienda quando ti iscrivi all'app, ma sono tutti argomenti. E spesso sono le persone che vengono al gruppo con un pacchetto di compensazione e dicono che mi è stato offerto questo da Meta o Amazon e cosa dovrei fare? E ti rendi conto di quanto a volte questo mondo sia distante dal modo in cui vive il resto del mondo o il resto del paese. Persone che sono come "Beh, non lo so. Dovrei prendere questo pacchetto da $ 700.000 da Amazon? E questo senza azioni, benefici o dovrei prendere questo altro pacchetto comparabile da un'azienda simile, ma mi permetteranno di lavorare da casa? E non lo so perché ho 40 anni e ho solo 10 milioni in pensione." Sono tipo, oh mio Dio, questo è il mondo di cui stiamo parlando.

Michael Calore: Sì.

Katie Drummond: Dobbiamo fare più rapporti su questo. Penso che il risarcimento delle persone nella Silicon Valley sia affascinante.

Lauren Goode: Beh, se qualcuno vorrebbe pesare, se sei un reclutatore, se sei una persona che è stata fatta una di queste offerte dal Meta Soprintendigence Lab, vogliamo sentirti.

Michael Calore: grandi soldi.

Katie Drummond: lo facciamo sicuramente.

Lauren Goode: I nostri segnali sono là fuori.

Michael Calore: grandi soldi, niente persone.

Lauren Goode: Ora sappiamo per cosa Katie ci lascerebbe: andare a lavorare per Mark Zuckerberg.

Katie Drummond: cento milioni di dollari è un sacco di soldi. Sono molti soldi.

Lauren Goode: sono molti soldi.

Katie Drummond: Sarebbe difficile per me. Non credo di poterlo fare.

Lauren Goode: sì. Se lo investi, beh, sarebbero un sacco di soldi per i bambini dei tuoi figli.

Katie Drummond: Lo so, ma poi dovrei dire a mio figlio cosa faccio e non so che potrei farlo. Sono totalmente onesto. Non credo di poterlo fare. Lasciami essere chiari, ci sono molte persone fantastiche che lavorano in Meta. Voglio dire, questo non è un ripudio delle decisioni o delle scelte di carriera di nessuno o dove hanno scelto di lavorare, dato il mio background e quello che faccio per vivere, sì, non lo so. Non credo di poterlo fare.

Michael Calore: Puoi far parte della rivoluzione della Soprintenze.

Katie Drummond: Non voglio.

Michael Calore: Forse usa il chatbot e poi puoi sentirti come se ne avessi parte.

Katie Drummond: Sì, eccoti. Ho alcune domande pressanti e altamente personali per il chatbot di Meta e non appena andremo fuori da questa registrazione, andrò a chiederle tutte in privato.

Michael Calore: Non vedo l'ora di leggerli su [impercettibile 00:30:11].

Lauren Goode: Katie è come, come posso estrarre da un progetto di lavoro che mi ha bloccato in una stanza per due ore ogni settimana?

Katie Drummond: Oh caro.

Michael Calore: OK, facciamo un'altra pausa e torneremo con i consigli.

[rottura]

Michael Calore: Va bene, grazie entrambi per una grande conversazione sulla superintelligenza. Quindi penso che sia il momento di dare ai nostri ascoltatori qualcosa dal nostro cervello umano di sovrintenza, i nostri consigli per la settimana. Lauren, ti piacerebbe andare per primo?

Lauren Goode: Certo. Di recente ho imparato che usando strumenti di intelligenza artificiale generativi come Chatgpt, puoi fare l'analisi del colore. Uno di voi ha mai fatto questo?

Michael Calore: No.

Katie Drummond: No.

Lauren Goode: Quindi questa è una cosa che fa parte del mondo degli influencer di bellezza online in cui in genere pagheresti qualcuno, a volte un essere umano, a volte un'app che ha un input umano, per analizzare il colore dei tuoi capelli, pelle, occhi, tono della pelle, e ti dirai in quale stagione sei e poi ti dica quale vestito dovresti indossare in un modo che accentua la tua situazione.

Katie Drummond: Hai trovato questo rivelatore?

Lauren Goode: Sì. Di recente, quando stavo uscendo con alcuni amici, uno di loro aveva fatto la sua analisi del colore e ne stavamo parlando e lei ha detto: "Oh, puoi solo farlo su Chatgpt." E io ero tipo "Cosa? Non devi pagare a qualcuno un paio di centinaia di dollari per farlo?" Quindi ha caricato le nostre foto in Chatgpt e ho fatto un'analisi del colore. E quindi sono un profondo autunno, nel caso in cui qualcuno voglia saperlo.

Michael Calore: È una domanda ardente.

Lauren Goode: Questa era la domanda ardente. Pensavo che forse fossi un inverno, ma sono un profondo autunno. E quindi penso che fino ad oggi sia il caso d'uso più interessante di GATGPT che ho vissuto finora.

Michael Calore: Ever, di tutto ...

Lauren Goode: No, non è vero.

Michael Calore: Di tutte le tue esperienze.

Lauren Goode: Non è vero. L'altro giorno mi ha detto come cucinare i funghi Salini invece dei funghi cremini. Sono abbastanza certo che i funghi Salini non esistano. Quindi è stato utile anche in questo senso.

Katie Drummond: Yikes.

Lauren Goode: Ma no, l'ho usato anche per altre cose. L'ho usato per ricerche, ragionamenti e cose divertenti come quella.

Michael Calore: È abbastanza buono.

Lauren Goode: Quindi forse più tardi, in realtà, caricherò le foto di entrambi a Chatgpt e chiedergli di fare l'analisi del colore.

Michael Calore: Non acconsento.

Lauren Goode: E poi ti dirò ... OK. Di che colore dovresti indossare. Entrambi indossate tutto nero in questo momento.

Katie Drummond: Come al solito.

Michael Calore: Sì, stavo per dire. Chiamo quei giorni nei giorni feriali.

Lauren Goode: anarchici nella stanza. Adoro questo. Ok, tutto qui. Questa è la mia raccomandazione.

Katie Drummond: Stavo pensando a cosa consigliare e sarebbe stato un libro, un film o un cibo per bambini, ed ero tipo, no, ragazza, hai già fatto tutti quelli. Devi pensare a qualcos'altro. In realtà ho una raccomandazione legata all'intelligenza artificiale, ovvero che ho avuto qualcuno di recente per aiutarmi con le mie piante all'aperto, come la nostra piccola area del cortile a Brooklyn, e gli stavo dicendo che tutte le mie piante da interno stanno morendo e lottando, ed ero così confuso. Ero tipo, in quale finestra dovrebbe entrare questa? E cosa ... blah, blah, blah, blah, blah. Quanto spesso annaffio tutte queste cose? Ho molte piante. E ha raccomandato questa app chiamata Picture This. E scatti foto di tutte le tue piante e carichi le foto nell'app, ti dice che tipo di pianta è, ti dice quanto spesso annaffiarla. Puoi usare il tuo telefono per mostrare l'app quanto sole arriva attraverso la finestra e ti dirà se è abbastanza sole, troppo sole, non abbastanza sole.

Oh, e puoi scattare una foto della pianta e ti dirà se è malato e con cosa sta lottando, il che è molto sconvolgente, ma molto utile. Ho molte piante in difficoltà. Ma è molto, molto bello. È decisamente giudicante. Adesso ricevo notifiche push dicendo: "Non vuoi prenderti cura delle tue piante?" E sono tipo, beh, lo faccio, ma ho anche un lavoro. È un prodotto molto, molto interessante e se hai piante, lo consiglio vivamente.

Lauren Goode: immagina questo.

Katie Drummond: immagina questo. Piante sane, sani. Superintetingigence, immagina questo.

Lauren Goode: Mike, qual è la tua raccomandazione?

Michael Calore: Penso che, dato l'attuale stato geopolitico del mondo, è tempo di rivedere il Dr. Strangelove , il film del 1964 di Stanley Kubrick. Dr. Strangelove o: come ho imparato a smettere di preoccuparmi e ad amare la bomba . Si tratta di intensificare le tensioni politiche basate su un malinteso che porta alla guerra nucleare. È una farsa. È molto divertente. È anche molto secco, ma è un film fantastico. Lo rivedo circa una volta all'anno, sfortunatamente. Di solito sono costretto dagli eventi attuali a guardarlo. Quindi direi che è un buon momento per guardare il dottor Strangelove . E non sto dicendo che il mondo finirà, ma ogni volta che iniziamo a parlare di energia nucleare e iniziamo a parlare delle persone nel mondo che hanno le dita sul pulsante, è importante ricordare a noi stessi che queste sono decisioni umane che le persone prendono sul nostro futuro, ed è un ottimo film per aiutarti a elaborare tali informazioni.

Katie Drummond: Wow.

Lauren Goode: Quindi Katie sta irrigando le sue piante e sto tagliando la frangia e stai guardando film sulla fine del mondo. Vedo chi tra noi si sta davvero immergendo e chi è ...

Michael Calore: Quindi molte persone ignorano il vuoto. Molte persone lo riconoscono. Sono una di quelle persone che mi mettono la faccia contro il vetro e lo spaventa.

Katie Drummond: È proprio come mio marito. Non per fare tutto su di lui, ma ... mi sento come se coprissi il vuoto. Faccio il vuoto per il mio lavoro. Ogni giorno sono nel vuoto. Quindi quando sono fuori dal lavoro, voglio andare a La La Land. E così ieri sera stavo dicendo alla gente in Slack oggi, mio marito mi stava mandando messaggi ai collegamenti a motociclisti usati perché era come il posto più sicuro per noi durante un attacco nucleare è nel mezzo di una specchio d'acqua.

Lauren Goode: buon signore.

Katie Drummond: Ed ero tipo, e cosa pensi che faremo in questa piccola barca a motore nel mezzo dell'Oceano Atlantico al largo della costa di New York City? Penso che se si riduce al motoscafo o alla morte, probabilmente moriremo.

Lauren Goode: Sì, sì.

Katie Drummond: Sto solo dicendo.

Lauren Goode: Era prima di andare a letto, come prima che tu dovessi andare a dormire?

Katie Drummond: Proprio mentre ero sdraiato a letto cercando di andare a dormire e la cosa è come ping, ping, collegamenti alle barche usate.

Lauren Goode: Voglio dire, penso che siamo tutti un po 'vuoti adiacenti in questi giorni, quindi non puoi davvero ignorarlo.

Katie Drummond: Non puoi ignorarlo, ma è una scelta appoggiarsi al tuo tempo personale, dirò.

Michael Calore: Direi che se hai intenzione di fare quell'esercizio, ci sono meno persone con cui è più delizioso farlo rispetto a Peter Sellers e George C. Scott e Sterling Hayden e Stanley Kubrick. È un film fantastico, quindi lo streaming stasera.

Katie Drummond: ci collegheremo ad esso nelle note dello spettacolo.

Michael Calore: Grazie per aver ascoltato un incredibile valle . Se ti è piaciuto quello che hai sentito oggi, assicurati di seguire il nostro spettacolo e valutarlo sulla tua app di podcast. Se desideri entrare in contatto con noi con domande, commenti o suggerimenti, scrivici a [email protected] . Lo spettacolo di oggi è prodotto da Kyana Moghadam e Adriana Tapia. Amar Lal di Macrosound ha mescolato questo episodio. Jake Lummus era il nostro ingegnere in studio di New York. Daniel Roman ha controllato questo episodio. Jordan Bell è il nostro produttore esecutivo. Katie Drummond è direttore editoriale globale di Wired e Chris Bannon è a capo dell'audio globale.